Дарио Амодей, евангелистът на „безопасен AI“ разглежда Anthropic IPO

Когато Дарио Амодей напусна OpenAI през 2020 година, основният изпълнителен шеф Сам Алтман му пожела триумф, очаквайки, че планът, който Амодей, сестра му Даниела и други напуснали, евентуално ще се концентрира „ по-малко върху създаването на артикули и повече върху проучванията “.

„ Очакваме с неспокойствие съдействие с тях за години напред “, написа Алтман в блог.

Вместо това Амодей се трансформира в най-острия бодил в очите на Алтман. Anthropic, започващата компания за изкуствен интелект, която той съосновава, ще приключи годината с към 10 милиарда $ годишни доходи и пораства бързо. Той е в договаряния за набиране на средства на стойност над 300 милиарда $ и в този момент поставя основите за хитово първично обществено предложение.

Решението на Амодей да напусне OpenAI и работата, която е приключил от този момент, е подкрепено от две присъди, съгласно голям брой хора, които го познават. Едно, че той е по-способен да построи всесилен AI от някогашния си шеф; и второ, че светът би бил по-безопасен, в случай че го направи.

" Той има мощен взор върху това накъде отива. Дарио схваща, че би трябвало да имаш добър бизнес, с цел да преследваш задачата ", споделя Мат Мърфи, сътрудник в капиталовата компания от Силициевата котловина Menlo Ventures, която управлява кръг за финансиране за Anthropic предходната година.

Инвеститорите в компанията разказват Amodei като човек, чиито евангелизъм за „ безвреден AI ” е привързан с изострени търговски инстинкти. " Основателите са или механически, положителни в продуктите или продажбите. Дарио е един от дребното изпълнителни шефове, които съм срещал в живота си, които вършат и трите ", споделя Дивеш Макан, създател на Iconiq Capital, който управлява последния кръг на финансиране на Anthropic.

Амодей е роден и израснал в Сан Франциско от майка, която ремонтира библиотеки, и татко кожар. 42-годишният учи физика в Станфорд и закупи докторска степен по биофизика, преди да стартира кариера като откривател на ИИ. Той се причислява към китайския интернет колос Baidu през 2014 година преди къс престой в Гугъл Brain.

През 2016 година той беше измежду първите чиновници на OpenAI, учредена от Altman, Elon Musk и девет други като място за осъществяване на проучвания в региона на AI без комерсиалния напън на корпоративен софтуерен родител. Amodei способства за създаването на огромните езикови модели зад chatbot ChatGPT.

Но след пет години Amodei напусна след различия с Altman по отношение на посоката на OpenAI и с опасения по отношение на капацитета на AI да навреди, в случай че не бъдат сложени подобаващи защитни парапети. През 2021 година той съосновава Anthropic със сестра си.

„ Това, което смяташе за значимо, беше създаването на компания, в която тези неща могат да бъдат внедрени безвредно и транспарантно в света “, споделя Рави Мхатре, съосновател на компанията за рисков капитал Lightspeed Venture Partners, която влага над 1 милиард $ в Anthropic тази година. „ Той почувства, че има потребност от чист лист. “

Но този фокус върху безвредното развиване на ИИ му завоюва рецензии както във Вашингтон, по този начин и в Силициевата котловина. Дейвид Сакс, царят на ИИ на Тръмп, съобщи през октомври, че Anthropic ползва „ усъвършенствана тактика за регулаторно хващане, учредена на втълпяване на боязън “. Инвеститорът Марк Андреесен твърди, че спомагателната регулация на ИИ ще попречи на започващите компании в Съединени американски щати.

Критиците дефинират Амодей като „ доумър “, повлиян от ефикасното придвижване за алтруизъм, което има вяра, че ИИ съставлява екзистенциална опасност за човечеството. Братята и сестрите Амодей отхвърлят, че са ефикасни алтруисти или гибелници. Но ранното финансиране на компанията идва от вложители с връзки с придвижването, в това число съоснователя на Фейсбук Дъстин Московиц и съоснователя на FTX Сам Банкман-Фрид, който по-късно беше наказан за машинация.

Има също опасения от някои в бранша на изкуствения разсъдък, че бързият напредък на Anthropic в този момент тества способността на Amodei да балансира устрема към „ безвреден “ изкуствен интелект с потребностите на неговите акционери.

„ В ранния стадий на Anthropic те доста споделиха, че „ не желаеме да подхранваме надпреварата с изкуствен интелект, желаеме да сме тъкмо зад границата и да вършим проучвания за сигурността на изкуствения разсъдък. “ Това явно не е. Някои хора в общността за сигурност на изкуствения разсъдък са много недоволни от това “, сподели човек, който работи по сигурността на изкуствения разсъдък.

Anthropic получи поддръжката на Гугъл, Amazon, Microsoft и Nvidia и по-рано тази година промени позицията си по отношение на приемането на финансиране от Близкия изток. „ За страдание считам, че „ нито един неприятен човек не би трябвало да се възползва от нашия триумф “ е много сложен принцип за ръководство на бизнес “, сподели Амодей на личния състав.

За да формулира своите стратегически промени и мироглед за света, Амодей обича да написа дълги обществени есета (последното надвишава 13 000 думи). По време на петчасово подкаст изявление предходната година той също се отклони за малко от разискването на езиците за програмиране, с цел да изтъкне смисъла на живота.

Неговите откровени послания бяха добре признати от обществеността. И неговото вдъхновение по отношение на задачата на неговата компания е известно измежду чиновниците, което оказва помощ на Anthropic да задържи най-хубавите откриватели на конкурентен пазар. „ Той има статут на паметен водач “, споделя индивидът по сигурността на изкуствения разсъдък.

Компанията към този момент е в най-ранните стадии на подготовка за обществено листване. Има огромно търсене от страна на вложителите да имат част от това, което е построил Amodei.

" Не мога да си показва компанията без Дарио. Той е индивидът, който управлява основните механически провокации и стимулира всички ", споделя Мхатре от Lightspeed. „ Какво е Apple без Стив Джобс или Microsoft без Бил Гейтс? “

Допълнителен репортаж от Кристина Кридъл и Таби Киндер